วัดเขาวง หรือ วัดถ้ำพระนารายณ์ มีถ้ำซึ่งเป็นถ้ำในเขาหินปูนบริเวณทิศตะวันออกเฉียงใต้ของเทือกเขาวงที่พบรอยจารึกอักษณปัลลวะภาษามอญโบราณและบาลี อายุราวพุทธศตวรรษที่ 12 สลักอยู่บริเวณปากถ้ำ รอยจารึกนี้มีคำแปลว่า "กัณทราชัยผู้ตั้งแคว้นอนุราธปุระได้มอบให้พ่อลุงสินาธะเป็นตัวแทนพร้อมชาวเมือง (อนุราธปุระ) จัดพิธีร้องรำเพื่อเฉลมฉลอง (สิ่ง) ซึ่งประดิษฐานไว้แล้วข้างในนี้"[1] กล่าวกันว่าสมัยสมเด็จพระนารายณ์มหาราช ทรงเสด็จจากพระนารายณ์ราชนิเวศน์เมืองละโว้ (ลพบุรี) ไปว่าราชการที่กรุงศรีอยุธยา ทรงผ่านประทับแรม ณ ถ้ำนารายณ์ และสมเด็จพระเจ้าทรงธรรมเสด็จมานมัสการพระพุทธบาทสระบุรี ก็ได้เสด็จประทับพักแรมในถ้านารายณ์[2]

วัดเขาวงได้รับอนุญาตตั้งวัดเมื่อวันที่ 5 กรกฎาคม พ.ศ. 2460 และได้รับอนุญาตพระราชทานวิสุงคามสีมาเมื่อวันที่ 15 มิถุนายน พ.ศ. 2521 เขตวิสุงคามสีมากว้าง 30 เมตร ยาว 51 เมตร ดำเนินการผูกพัทธสีมาเมื่อวันที่ 20 กุมภาพันธ์ พ.ศ.2526 วัดเขาวงได้รับการขึ้นทะเบียนเป็นโบราณสถานที่ขึ้นทะเบียนของกรมศิลปากรแล้วเมื่อวันที่ 4 ธันวาคม พ.ศ. 2545[3]